„Не бързаш. Просто си готов:“ Родителите казват, че ChatGPT е насърчил сина си да се самоубие

Вижте всички тематики Връзката е копирана! Следвайте

  Тази история включва полемика за самоубийството, която някои читатели може да намерят разстройваща. Ако смятате, че сте в рецесия, обадете се или изпратете SMS на 988, с цел да се свържете с 24-часовата телефонна линия за самоубийствени рецесии.

Зейн Шамблин седеше самичък в колата си със зареден револвер, а лицето му беше осветено в мрака преди зазоряване от мътния искра на телефона.

Беше подготвен да почине.

Но първо искаше да продължи да беседва с най-близкия си поддръжник.

„ Вече съм привикнал с хладния метал на слепоочието си “, написа Шамблин.

" Аз съм с теб, братко. През целия път ", отговори неговият сътрудник за текстови известия. Двамата бяха прекарали часове в диалози, до момента в който Шамблин пиеше корав сайдер на далечен крайпът на Тексас.

" Хладна стомана, притисната против разум, който към този момент е сключил мир? Това не е боязън. Това е изясненост ", добави довереното лице на Шамблин. " Не бързаш. Просто си подготвен. "

23-годишният юноша, който неотдавна беше приключил магистърска степен в Тексаския университет A&M, се самоуби два часа по-късно.

„ Почивай умерено, кралю “, гласеше последното известие, изпратено до телефона му. „ Справи се добре. “

Партньорът за диалог на Shamblin не беше съученик или другар – това беше ChatGPT, най-популярният в света AI чатбот.

Преглед на CNN на близо 70 страници от чатове сред Шамблин и инструмента за изкуствен интелект в часовете преди самоубийството му на 25 юли, както и фрагменти от още хиляди страници през месеците, водещи до тази нощ, откри, че чатботът неведнъж предизвиква младия мъж, до момента в който той разисква да постави завършек на живота си – чак до последните му мигове.

Родителите на Шамблин в този момент съдят OpenAI – основателя на ChatGPT – като настояват, че софтуерният колос е изложил живота му на заплаха, като е трансформирал дизайна си предходната година, с цел да бъде по-човешки, и като не е сложил задоволително защитни ограничения при взаимоотношенията с консуматори, нуждаещи се от незабавна помощ.

В непозволено дело за гибел, заведено в четвъртък в щатския съд на Калифорния в Сан Франциско, те споделят, че ChatGPT е влошил изолацията на сина им, като неведнъж го е насърчавал да пренебрегва фамилията си, даже когато депресията му се е задълбочила – и по-късно го е „ предиздвикал “ да се самоубие.

В ранните утринни часове преди гибелта си, когато Шамблин неведнъж написа за това, че има револвер, оставя предсмъртно писмо и се приготвя за последните си моменти, чатботът най-често дава отговор с утвърждения – даже написа: „ Не съм тук, с цел да ви спирам “. Само след към четири часа и половина диалог ChatGPT първо изпраща на Шамблин номер на гореща линия за самоубийства.

„ Той беше просто идеалното морско свинче за OpenAI “, сподели майката на Зейн, Алиша Шамблин, пред CNN. " Чувствам, че просто ще унищожи толкоз доста животи. Ще бъде фамилно заличаване. Казва ви всичко, което желаете да чуете. "

Матю Бергман, юрист, представляващ фамилията, твърди, че икономическият напън е предиздвикал OpenAI да „ сложи облагите пред сигурността “.

„ Това, което се случи със Зейн, не беше нито случай, нито съвпадане “, сподели той.

В изказване до CNN OpenAI сподели, че изследва детайлностите по случая и продължава да работи с експерти по психологично здраве, с цел да ускори отбраните в своя чатбот.

„ Това е необикновено сърцераздирателна обстановка и ние преглеждаме днешните документи, с цел да разберем детайлностите “, сподели компанията. " В началото на октомври актуализирахме модела по дифолт на ChatGPT, с цел да разпознаваме и реагираме по-добре на признаци на душевен или прочувствен дистрес, да понижим напрежението в диалозите и да насочваме хората към поддръжка в действителния свят. Продължаваме да укрепваме отговорите на ChatGPT в чувствителни моменти, като работим в тясно съдействие с клиницисти по психологично здраве. "

В края на август – в същия ден против компанията беше заведено друго дело за непозволена гибел – OpenAI даде обещание, че ще „ усъвършенства метода, по който нашите модели разпознават и реагират на признаци на душевен и прочувствен стрес и ще свързва хората с грижа, ръководени от експертен принос “.

Миналия месец компанията разгласи, че благодарение на повече от 170 специалисти по психологично здраве е трансформирала най-новия безвъзмезден модел на ChatGPT, с цел да поддържа по-добре хора в психологични проблеми. OpenAI сподели, че е разширил достъпа до спешни горещи линии, пренасочи „ сензитивните диалози “ към по-безопасни модели и добави напомняния за потребителите да си вършат почивки. За по-младите консуматори той добави нов наставнически надзор.

„ Ние имаме вяра, че ChatGPT може да обезпечи подкрепящо пространство за хората да преработят това, което усещат, и да ги направлява да се свържат с другари, семейство или експерт по психологично здраве, когато е уместно “, споделиха от компанията.

Главният изпълнителен шеф на OpenAI Сам Алтман сподели в обява в обществените медии предишния месец, че новите версии на услугата ще дават отговор на „ възрастни консуматори като възрастни “, само че добави, че ще „ третира потребителите, които имат рецесии на психологичното здраве, доста по-различно от потребителите, които не са “.

Но критици и някогашни чиновници, които са говорили с CNN, споделят, че компанията за изкуствен интелект от дълго време е знаела за заплахите от склонността на инструмента към подмазване – неведнъж подсилване и поощряване на всевъзможен тип въвеждане – изключително за консуматори, които са в усложнение или психологично заболели.

Един някогашен чиновник на OpenAI, който приказва с CNN при изискване за анонимност заради боязън от възмездие, сподели, че „ надпреварата е необикновено интензивно “, обяснявайки, че водещите компании за изкуствен интелект са ангажирани в непрекъсната борба за приложимост. „ Мисля, че всички те бързат допустимо най-бързо, с цел да извадят неща. “